Red Hat объявила о запуске платформы Red Hat Enterprise Linux AI (RHEL AI) для создания генеративных ИИ-решений в облачных средах. По данным Silicon Angle, анонсированный три месяца назад пакет ПО сделали общедоступным в ходе мероприятия Red Hat Summit.

Ранее анонсированный пакет включает семейство открытых языковых моделей IBM Granite, а также инструмент настройки моделей InstructLab, разработанный самой RedHat. Всё это объединили в образ RHEL для развёртывания в гибридных облаках и на локальных площадках. В компании сообщили, что RHEL AI упростит и удешевит разработку компактных и недорогих моделей.

Затраты на обучение моделей могут быть очень высокими, в Red Hat сообщают, что на создание некоторых передовых моделей уходит до $200 млн. И это только на обучение, без учёта стоимости самих данных и настройки, критически важной для выполнения специальных задач каждой конкретной компании. В Red Hat уверяют, что будущее за небольшими генеративными ИИ-моделями, большинство которых будет open source.

Источник изображения: Red Hat

В компании рассчитывают, что RHEL AI станет основной платформой для создания «бюджетных» и открытых решений. По умолчанию предоставляется библиотека бесплатных LLM Granite общего назначения. InstructLab поможет в тонкой настройке моделей без обширных навыков, связанными с наукой о данных. А интеграция с Red Hat OpenShift AI упростит обучение, настройку и обслуживание моделей. RHEL AI позволит разворачивать генеративный ИИ в непосредственной близости от баз данных и хранилищ компаний.

RHEL AI оптимизирован для развёртывания на новейших серверах Dell PowerEdge и обеспечивает все возможности, предоставляемые подпиской Red Hat, в т.ч. круглосуточную поддержку, расширенную поддержку жизненного цикла моделей и, например, правовую защиту Open Source Assurance. Поскольку RHEL AI фактически является расширением Red Hat Enterprise Linux, дистрибутив можно использовать и на любом другом оборудовании, в том числе в облаках. Решение уже доступно у AWS и IBM Cloud, в Google Cloud и Azure появится возможность использовать его позже в этом году. В IBM Cloud ожидается появление предложения «как услуги» — по подписке в самом облаке, но только в следующем году.

Ранее сообщалось, что для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти и хранилище от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Компания CIQ, поддерживающая Rocky Linux, анонсировала инициативу CIQ Bridge для пользователей платформы CentOS 7, жизненный цикл которой близится к завершению. Инициатива, как ожидается, поможет клиентам поддерживать свою IT-инфраструктуру в актуальном и защищённом состоянии в рамках миграции на Rocky Linux.

Поддержка CentOS, напомним, прекратилась в конце 2021 года, а не в 2029-м, как ожидалось. Место CentOS заняла CentOS Stream, вечная бета-версия RHEL. А в июне 2023 года Red Hat объявила о прекращении поддержки публикации исходного кода пакетов уже выпущенных релизов в репозитории CentOS. Впоследствии CIQ, Oracle и SUSE создали совместную торговую ассоциацию Open Enterprise Linux Association (OpenELA), чтобы противостоять политике Red Hat.

Вместе с тем основатель проекта CentOS Грегори Курцер (Gregory Kurtzer) в 2020 году представил Rocky Linux — новую свободную сборку RHEL. На эту платформу предлагается перейти пользователям CentOS 7, жизненный цикл которой закончится 30 июня 2024 года. Те клиенты, которым необходимо дополнительное время для перехода на альтернативную ОС, могут воспользоваться программой CIQ Bridge.

Источник изображения: CIQ

По сути, CIQ Bridge — это расширенная поддержка CentOS 7 сроком на три года: доступ к ней предоставляется по годовой подписке с фиксированной ставкой. Клиентам будут предоставляться обновления, а также заплатки для уязвимостей, имеющих рейтинг CVSS 7 и выше. Патчи для дыр с рейтингом CVSS 5 и CVSS 6 могут распространяться на дополнительных условиях.

По оценкам, на сегодняшний день более 385 тыс. компаний по всему миру применяют CentOS. Хотя многие организации успешно перешли на Rocky Linux и другие альтернативы Linux, некоторым клиентам сложно сделать это до 30 июня по ряду причин, включая проблемы с финансированием и нехватку специалистов. Таким пользователям программа CIQ Bridge даст дополнительное время для перехода на новую Linux-платформу.

Сама Red Hat объявила о предоставлении дополнительной четырёхлетней поддержки пользователям Red Hat Enterprise Linux (RHEL) 7. Обычно период поддержки этой платформы составляет 10 лет, но в случае RHEL 7 он увеличен до 14 лет.

Изменения, которые компания Red Hat внесла в политику доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), создают непредвиденные сложности для команд разработчиков CentOS Special Interest Group (SIG), о чём сообщает ресурс Phoronix.

В июне 2023 года, напомним, Red Hat объявила о прекращении поддержки публикации исходного кода пакетов уже выпущенных релизов в репозитории CentOS. Публично остаются доступны только репозитории CentOS Stream, «вечной бета-версии» будущих релизов RHEL.

Исходники RHEL хранятся на клиентском портале Red Hat, доступном только при наличии контракта. Участники рынка заявили, что действия Red Hat создают нестабильность и не соответствуют принципам open source. Впоследствии CIQ, Oracle и SUSE создали совместную торговую ассоциацию Open Enterprise Linux Association (OpenELA), чтобы противостоять политике Red Hat.

Источник изображения: Yang / Unsplash

Однако новая практика этой компании продолжает оказывать негативное влияние на деятельность приближенных к ней разработчиков. В частности, группа Kmods SIG, поддерживающая дополнительные модули ядра для CentOS Stream и RHEL, в настоящее время «не может создавать пакеты для Red Hat Enterprise Linux по юридическим причинам». Разработчики пытаются решить этот вопрос с Red Hat и возобновить деятельность «как можно скорее», но конкретные сроки не называются. Со сложностями также столкнулась группа CentOS Hyperscale SIG. Hyperscale SIG теперь опирается на Fedora, а не на дерево CentOS/RHEL.

Компания Samsung Electronics в партнёрстве с Red Hat впервые в отрасли успешно проверила работу памяти Compute Express Link (CXL) в реальной пользовательской среде. Это открывает путь для внедрения CXL в существующих дата-центрах для выполнения ресурсоёмких задач, таких как генеративный ИИ, средства автономного вождения и in-memory базы данных.

Интерконнект CXL, основанный на интерфейсе PCIe, обеспечивает высокоскоростную передачу данных с малой задержкой между хост-процессором и между такими устройствами, как серверные ускорители, буферы памяти и интеллектуальные IO-блоки. Технология позволяет повысить эффективность серверных платформ при одновременном снижении эксплуатационных расходов.

Источник изображения: Samsung

В рамках сотрудничества с Red Hat компания Samsung оптимизировала работу своей памяти CXL на платформе Red Hat Enterprise Linux (RHEL) 9.3. Специалисты проверили распознавание памяти, а также опробовали операции чтения и записи в средах Red Hat KVM и Podman. Полученные результаты говорят о том, что клиенты могут использовать память Samsung CXL в своих ЦОД без необходимости внесения дополнительных изменений в существующее оборудование.

Это, как утверждается, важная веха в интеграции аппаратного и программного обеспечения для создания открытой экосистемы с целью внедрения высокоскоростной памяти следующего поколения. Компании Samsung и Red Hat приступили к разработке руководства RHEL 9.3 CXL Memory Enabling Guide, которое поможет заказчикам в создании вычислительных систем с памятью CXL.

Отмечается, что Samsung сотрудничает с дата-центрами и поставщиками облачных услуг по всему миру, чтобы лучше удовлетворять их потребность в высокоскоростной памяти большой ёмкости. Меморандум о взаимопонимании (MOU) с Red Hat компания Samsung подписала в мае 2022 года. Партнёрство охватывает широкий спектр решений, включая NVMe-накопители и собственно память CXL.

CIQ, Oracle и SUSE объявили о создании совместной торговой ассоциации Open Enterprise Linux Association (OpenELA) с целью «разработки дистрибутивов, совместимых с Red Hat Enterprise Linux (RHEL), путём предоставления открытого и бесплатного исходного кода Enterprise Linux (EL)». Создание OpenELA вызвано недавним изменением в политике Red Hat относительно доступа к исходному коду RHEL.

В ответ на установленные Red Hat ограничения компании CIQ, Oracle и SUSE договорились о сотрудничестве, чтобы предоставлять сообществу исходный код, инструменты и системы через OpenELA. Начиная с конца этого года, OpenELA будет предоставлять ресурсы, необходимые для создания downstream-сборок, совместимых с RHEL версий 8 и 9, а потом, возможно, и 7. Ассоциация будет стремиться обеспечить постоянную доступность исходных кодов OpenELA для сообщества без ограничения в сроках.

OpenELA будет предоставлять только исходный код и инструменты, но речи о создании собственного бинарного дистрибутива не идёт. Участники и все желающие смогут создавать свои собственные RHEL-совместимые дистрибутивы на основе этого кода. Первоначально совет директоров OpenELA будет включать в себя равное представительство компаний-учредителей.

Источник изображения: SUSE

Ранее в ответ на решение Red Hat компания SUSE сообщила о создании собственного форка RHEL, на поддержку которого выделит в течение нескольких лет $10 млн. А разработчики AlmaLinux объявили, что их дистрибутив более не будет полноценным клоном RHEL. Oracle же раскритиковала IBM и Red Hat и пообещала не следовать их примеру в отношении Linux. Red Hat в ответ на критику сообщества сообщила, что не видит ценности в пересборках RHEL.

После решения Red Hat ограничить доступ к исходным кодам Red Hat Enterprise Linux (RHEL) пути разработчиков альтернативных дистрибутивов разошлись. Rocky Linux будет полагаться на альтернативные источники исходного кода. Oracle собирается и далее развивать собственный дистрибутив, временно сохраняя 100% совместимость с RHEL. SUSE намерена развивать свой форк RHEL, а в AlmaLinux нашли компромиссное решение.

AlmaLinux более не будет полноценным клоном RHEL — теперь говорится лишь о совместимости на уровне ABI. Это позволит без проблем запускать приложения, созданные для RHEL или его клонов, а все развёрнутые копии AlmaLinux будут вовремя получать обновления безопасности. По словам создателей, для обычных пользователей в этом отношении практически ничего не поменяется.

Изображение: AlmaLinux

Вместе с тем такой подход развязывает руки разработчикам дистрибутива, так что теперь они могут работать с патчами вне основного цикла релизов Red Hat. Это может привести к тому, что пользователи столкнутся с багами, которых в RHEL нет, но в то же время AlmaLinux сможет получать патчи, которые ещё не добрались до RHEL. Для подобных патчей будет указываться их источник.

Одновременно разработчики просят попытаться воспроизвести все найденные в AlmaLinux баги и ошибки в CentOS Stream. Как и многие другие, создатели AlmaLinux говорят о приверженности идеям open source, поэтому, как и прежде, исправления и обновления будут направляться в Fedora и CentOS Stream. Кроме того, в ближайшее время будет объявлено о новых разработках и партнёрствах AlmaLinux.

В ответ на решение принадлежащей IBM компании Red Hat изменить политику доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), которое сообщество разработчиков ПО с открытым исходным кодом охарактеризовало как несоответствующее принципам open source, компания SUSE сообщила о создании собственного форка RHEL.

На поддержку инициативы в рамках проекта Liberty Linux компания выделит $10 млн в течение нескольких лет. SUSE заявила о готовности сотрудничать с сообществом open source в деле долгосрочной разработки совместимой с RHEL и CentOS альтернативы, а также о намерении предоставить этот проект в качестве в вклада в фонд разработки open source, чтобы обеспечить постоянный бесплатный доступ к альтернативному исходному коду.

Источник изображения: SUSE

«Мы приглашаем сообщество к активному участию и сотрудничеству в формировании будущего этого важного ПО, — сказал директор по технологиям и продуктам SUSE. — Мы твердо верим, что этот новый дистрибутив Linux, совместимый с RHEL, вместе с портфолио SUSE поможет сообществу и клиентам сориентироваться в беспрецедентных достижениях в области корпоративного Linux, облачных и периферийных вычислений, контейнеризации, AI/ML и других новых технологий».

Также сообщается, что работа над новым форком никак не отразится на разработке компанией дистрибутивов SUSE Linux Enterprise, ALP (Adaptable Linux Platform) и openSUSE. Курировать сопровождение Liberty Linux будет отдельная организация.

Red Hat объявила в июне об изменении политики доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), которые теперь хранятся на её клиентском портале, доступном при наличии контракта. Ранее Red Hat предоставляла доступ к кодам с помощью семейства дистрибутивов CentOS, выполняя обязательства, налагаемые на неё лицензией GPL, в соответствии с которой и лицензируется код RHEL.

После июньского объявления сообщество разработчиков ПО с открытым исходном кодом пришло к выводу, что действия компании не соответствуют принципам open source и что Red Hat намеренно или непреднамеренно вносит нестабильность на рынке для всех, кто нуждается в Enterprise-дистрибутиве для выполнения критических рабочих нагрузок, поддерживающих миллионы процессов по всему миру.

Сообщество Rocky Linux тоже отреагировало на действия Red Hat, заявив, что продолжит предоставлять бинарно совместимый клон RHEL в духе CentOS, получая исходный код косвенными путями: с помощью образов UBI-контейнеров и образов ОС в публичных облаках. Oracle присоединилась к Rocky Linux, заявив о приверженности принципам open source.

Источник изображения: Rocky Linux

Грегори Курцер (Greg Kurtzer), основатель проектов CentOS и Rocky Linux и генеральный директор CIQ, прокомментировал действий Red Hat, заявив следующее: «Red Hat открыла ящик Пандоры. В чём нуждается корпоративное Linux-сообщество, так это в стандартизации, стабильности и согласованности. В течение многих лет это был RHEL. Теперь дверь открыта для альтернатив. CIQ стремится к стабильности для наших партнёров, клиентов и сообщества. Вот наше обещание: мы здесь, чтобы устанавливать стандарты. Так мы начинали, и в этом заключалась основная идея Rocky Linux. Мы продолжим создавать широкую коалицию компаний, организаций и отдельных лиц, разделяющих наши взгляды. Мы приветствуем все компании, готовые принять основные принципы и дух open source, и мы здесь, чтобы сотрудничать с ними в продвижении открытого корпоративного стандарта Linux».

После объявления принадлежащей IBM компании Red Hat об изменении политики доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), Oracle выпустила пресс-релиз, в котором раскритиковала решение IBM и подтвердила готовность продолжить работу над Oracle Linux, по-прежнему обеспечивая его совместимость с вышестоящей Red Hat Enterprise Linux. Oracle также обратилась к разработчикам Linux, которые не согласны с действиями IBM, предложив им работу у себя.

Oracle высмеяла заявление IBM, объяснившей решение закрыть бесплатный доступ к RHEL тем, что «в Red Hat тысячи людей тратят своё время на написание кода для включения новых функций, исправление ошибок, интеграцию различных пакетов и последующую поддержку этой работы в течение длительного времени … и ей приходиться платить людям за выполнение этой работы».

Источник изображения: Oracle

«Интересно. IBM не хочет продолжать публиковать исходный код RHEL, потому что ей приходится платить своим инженерам? Это кажется странным, учитывая, что Red Hat как успешная независимая open source компания решила публично выпустить исходники RHEL и платить своим инженерам в течение многих лет, прежде чем IBM приобрела Red Hat в 2019 году за $34 млрд», — указано в пресс-релизе. Также было отмечено, что «утаив исходный код RHEL, IBM напрямую атаковала» две новые альтернативы RHEL: AlmaLinux и Rocky Linux.

«И, возможно, это и есть реальный ответ на вопрос “почему”: устранить конкурентов. Меньшее количество конкурентов означает для IBM больше возможностей получения дохода», — отметила Oracle. Далее Oracle заявила, что продолжит добиваться своей цели в отношении Linux «так же прозрачно и открыто, как и всегда, сводя к минимуму фрагментацию».

«Мы продолжим разрабатывать и тестировать наши программные продукты на Oracle Linux. Oracle Linux по-прежнему будет совместима с RHEL в той мере, в какой мы сможем это сделать. В прошлом доступ Oracle к исходному коду RHEL был важен для поддержания совместимости. С практической точки зрения мы считаем, что Oracle Linux останется такой же совместимой, какой она всегда была, вплоть до выпуска 9.2, но после этого вероятность возникновения проблем с совместимостью может возрасти. Если несовместимость действительно повлияет на клиента или разработчика, Oracle примет меры по устранению проблемы», — заверила компания.

Источник изображения: Oracle

«До тех пор, пока Oracle распространяет Linux, Oracle будет публиковать бинарные файлы и исходный код дистрибутива в открытом доступе», — пообещала компания, заверив, что будет приветствовать последующие дистрибутивы любого рода, как поддерживаемые сообществом, так и коммерческие. «Мы рады сотрудничать <…>, чтобы упростить этот процесс, совместно работать над Oracle Linux и обеспечить сертификацию программных продуктов Oracle для вашего дистрибутива», — указала компания в пресс-релизе.

«Наконец, IBM, вот вам отличная идея. Вы говорите, что не хотите платить всем этим разработчикам RHEL? Вот как вы можете сэкономить деньги: просто берите у нас. Станьте downstream-дистрибутивом Oracle Linux. Мы с радостью возьмём на себя это бремя», — завершает пресс-релиз Oracle ироничное обращение к IBM.